© Adobe Stock/Pinkeyes Нынешняя работа ООН в области управления ИИ основана на Глобальном цифровом договоре, принятом государствами-членами в 2024 году в рамках Пакта во имя будущего. Кто будет устанавливать правила применения ИИ? ООН пытается обезопасить человечество Исайя Штейнберг Культура и образование
Стремительное развитие искусственного интеллекта (ИИ) все острее ставит вопрос о том, как общество и правительства могут использовать его преимущества и одновременно минимизировать риски, которые зачастую выходят за пределы национальных границ.
Эти опасения усилились после того, как бывший исследователь компании Anthropic, специализирующейся в области искусственного интеллекта, предупредил, что ИИ может представлять экзистенциальную угрозу человечеству.
В ООН считают, что для противодействия глобальным рискам, связанным с ИИ, странам необходимо согласовать общие принципы и обязательства в области его регулирования.
Координация усилий имеет «решающее значение»
«Действия на национальном уровне важны, однако координация усилий на глобальном уровне имеет решающее значение», – заявил Генеральный секретарь ООН Антониу Гутерриш.
На протяжении нескольких лет ООН работает над созданием площадки, где страны могут сформировать общее понимание технологий искусственного интеллекта и обсудить сотрудничество в разработке механизмов регулирования в таких областях, как безопасность, права человека и борьба с неравенством.
Общие правила для ИИ
Нынешняя работа ООН в области управления ИИ основана на Глобальном цифровом договоре, принятом государствами-членами в 2024 году в рамках Пакта во имя будущего.
Договор призывает к международному сотрудничеству в области ИИ и предусматривает создание двух новых механизмов: Независимой научной группы для оценки рисков и возможностей ИИ и ежегодного Глобального диалога, в рамках которого правительства и другие заинтересованные стороны могли бы согласовывать подходы к управлению ИИ. В августе 2025 года Генеральная Ассамблея ООН официально учредила оба механизма.
Независимая международная научная группа по искусственному интеллекту призвана предоставлять правительствам независимую оценку информации об этой стремительно развивающейся технологии.
Глобальный диалог по вопросам управления ИИ, в свою очередь, объединяет правительства и другие заинтересованные стороны для обсуждения международного сотрудничества, обмена опытом и сближения различных подходов к управлению ИИ.
Оба механизма дополняют друг друга – Научная группа предоставляет фактические данные, а страны в рамках Глобального диалога решают, какие меры следует принять на их основе.
Новые возможности и риски
В первом Предварительном докладе Научной группы, опубликованном 1 июля, отмечается, что возможности ИИ стремительно расширяются, особенно в таких областях, как логическое мышление, программирование и наука, открывая значительные перспективы.
Однако в докладе также обозначены такие риски, как дезинформация, дискриминация, нарушение права на неприкосновенность частной жизни, кибератаки и появление так называемого «сверхинтеллекта», который может стать трудноуправляемым.
«Нам необходимо общее понимание того, как содействовать безопасному, надежному и ответственному развитию ИИ, а также определять, в каких случаях все более мощные системы могут потребовать усиленных защитных механизмов или дополнительных мер для управления потенциальными рисками», – заявил Гутерриш, выступая перед журналистами в Нью-Йорке в преддверии Недели высокого уровня Генеральной Ассамблеи ООН.
ИИ на Неделе высокого уровня ГА
По сообщениям СМИ, дипломатические источники предполагают, что Совет Безопасности обсудит искусственный интеллект во время Недели высокого уровня.
На пресс-конференции в среду Гутерриш подчеркнул, что ИИ станет «одной из главных тем» его переговоров с мировыми лидерами на следующей неделе.
Сравнив развитие ИИ с гонкой вооружений между США и Советским Союзом в период холодной войны, Генеральный секретарь призвал ведущие в этой области страны, включая США и Китай, сотрудничать в целях замедления развития технологии, пока продолжается оценка связанных с ней рисков.
«Я считаю, что страны, обладающие наиболее передовыми возможностями в области ИИ, должны наладить взаимодействие, обмениваться информацией и выработать общие меры безопасности, чтобы избежать гонки, которая однажды может привести к катастрофе глобального масштаба», – заявил Гутерриш.
Теперь, когда научные и дипломатические механизмы созданы, ООН продолжит работу над тем, чтобы по мере дальнейшего расширения возможностей ИИ воплощать это сотрудничество в конкретные действия.
